CANTOR (G.)

CANTOR (G.)

Source de nombreux paradoxes depuis l’Antiquité, l’infini a toujours été un sujet de préoccupation et d’inquiétude pour les mathématiciens qui cherchaient à l’appréhender. La nécessité d’asseoir le calcul infinitésimal sur des bases solides avait conduit les mathématiciens de la première moitié du XIX^e siècle à étudier avec précision la notion de limite, mais l’étude de l’infini mathématique n’était pas abordée de front, puisqu’il intervenait seulement comme une possibilité de variation de certaines quantités finies.

À l’occasion de recherches fines d’analyse, Cantor étudia et compara directement des ensembles infinis, introduisant à cet effet de nouveaux concepts qui constituaient une véritable arithmétique de l’infini: outil puissant mais qui, sous sa forme initiale, soulevait de nombreuses difficultés logiques, la théorie de Cantor allait lui susciter de nombreux opposants; les paradoxes apparents auxquels elle conduit ont provoqué une véritable crise des mathématiques, la «crise des fondements», qui a conduit à une profonde rénovation de la logique mathématique.

D’autres articles de cette encyclopédie (cf. théorie des ENSEMBLES, ensembles ORDONNÉS) proposent un exposé de ces théories sous leur forme contemporaine; on se contentera ici, en suivant de très près l’analyse de J. Cavaillès, de préciser quelle fut chez Cantor la genèse de la théorie des ensembles.

Les étapes de la création cantorienne

Georg Cantor est né à Saint-Pétersbourg, d’une famille de riches négociants d’origine israélite; en 1856, la famille Cantor s’établit définitivement en Allemagne, à Francfort-sur-le-Main. G. Cantor termine ses études à Wiesbaden; il étudie ensuite les mathématiques à l’université de Zurich, puis de Berlin où il est élève de Kummer, Kronecker et Weierstrass. En 1867, il soutient une thèse de théorie des nombres, mais s’oriente vite, sous l’influence de Weierstrass, vers l’analyse et plus particulièrement vers l’étude des séries trigonométriques. Un des problèmes essentiels de cette théorie était alors l’étude des ensembles de nombres réels (dits exceptionnels) tel que si une série trigonométrique converge vers 0, sauf peut-être sur un tel ensemble, tous ses coefficients sont nuls, problème lié également à la théorie de l’intégration; Riemann et ses élèves avaient mis en évidence l’importance pour cette étude de la notion de point d’accumulation et d’ensemble dérivé.

Précisant des idées de Weierstrass, Cantor donne tout d’abord une définition rigoureuse des nombres réels en les construisant par complétion à partir des nombres rationnels, puis s’attache à décrire et à classer les ensembles exceptionnels. C’est à ce propos qu’il sera amené, dans une série de mémoires échelonnés de 1872 à 1884, tout en mettant en évidence de nombreuses propriétés topologiques de la droite et de l’espace (ensembles ouverts, fermés, parfaits...) et en abordant, le premier, le problème de la mesure, à élaborer les bases de la théorie des ensembles; les résultats inattendus qu’il obtenait, parfois à son plus grand étonnement, pour les ensembles de nombres réels l’amenèrent alors à dégager sous forme abstraite les mécanismes qui y conduisaient. À partir de 1882, Cantor rompt complètement avec les mathématiques traditionnelles en attribuant à la théorie des ensembles un rôle unificateur et synthétique: dominer et précéder logiquement le reste des mathématiques; il inaugurait ainsi des modes de raisonnement entièrement nouveaux.

Les conceptions de Cantor se heurtèrent dès leur publication à la défiance et même à l’hostilité déclarée de nombreux mathématiciens; parmi ces derniers, Kronecker s’acharna tout particulièrement contre ses théories – se livrant même à des attaques personnelles extrêmement violentes contre leur auteur. Mais l’amitié de Dedekind, que Cantor avait rencontré en 1872 et avec lequel il échangera une correspondance presque quotidienne pendant de nombreuses années, rompit un peu son isolement; ces lettres constituent un extraordinaire témoignage au jour le jour des découvertes, des préoccupations et des doutes de leur auteur. En 1884, Cantor, épuisé nerveusement par ses tentatives infructueuses pour démontrer le «théorème continu» (dont on sait, maintenant, qu’il est indémontrable dans le cadre de la théorie des ensembles) et par les attaques de ses détracteurs, est atteint d’une première crise nerveuse, point de départ d’une dramatique crise personnelle. Sur sa demande, il change sa chaire de mathématiques à l’université de Halle contre une chaire de philosophie et s’éloigne des mathématiques pendant quelques années.

Cependant l’œuvre de Cantor continuait à mûrir et celui-ci se remettait à publier quelques mémoires; le dernier d’entre eux, Contributions à la fondation de la théorie des nombres transfinis (1897), est un exposé systématique et abstrait de l’arithmétique transfinie. Mais déjà la situation avait changé, de nombreux mathématiciens s’étant ralliés aux théories cantoriennes; c’est alors qu’éclate, avec l’apparition de paradoxes (paradoxe de Burali-Forti, 1897; paradoxe de Russell, 1905), une véritable crise qui risque de mettre en péril l’édifice (cf. fondements des MATHÉMATIQUES). Lorsque Cantor meurt, le 6 janvier 1918, dans l’asile d’aliénés de Halle, l’importance de son œuvre mathématique est universellement reconnue.

La découverte des deux puissances

Le point de départ des travaux de Cantor est l’étude des quantités irrationnelles et du continu; il a donné, avec Dedekind qui suit une autre approche, sa forme définitive à la théorie des nombres réels. En vue d’arithmétiser l’analyse, c’est-à-dire de dégager complètement la définition des nombres réels de la notion de limite, Cantor met en évidence le caractère «idéal» de la notion de nombre réel: un nombre irrationnel est défini par la donnée d’une suite fondamentale de nombres rationnels (on dit plutôt, de nos jours, suite de Cauchy); le continu, c’est-à-dire l’ensemble des nombres réels, que Cantor identifie axiomatiquement aux points d’une droite apparaît ainsi comme défini par une multitude de suites superposées de nombres rationnels.

Les premières investigations de Cantor sont relatives à la possibilité de ranger certains ensembles de nombres en une suite simple u ¹, u ², ..., u ⁿ ... Cantor montre que c’est le cas pour toute suite multiple (linéarisation) et pour l’ensemble des nombres rationnels, tandis que Dedekind lui communique le même résultat pour les nombres algébriques, c’est-à-dire les nombres qui sont racines d’équations à coefficients entiers. En est-il de même de l’ensemble des nombres réels? Quelques jours après s’être posé cette question, Cantor y répond par la négative et dégage immédiatement la portée de ce résultat pour l’analyse: il existe une infinité de nombres transcendants et ces derniers ne se laissent pas ranger en une suite simple. On voit apparaître ici une démonstration d’existence qui n’est pas effective , en ce sens qu’elle ne permet pas concrètement de construire les nombres transcendants dont elle affirme l’existence; pour cette raison, un mathématicien «réaliste», comme Kronecker, estime qu’une telle démonstration n’en est pas une.

Ranger des nombres en une suite simple signifie établir une correspondance biunivoque (on dit plutôt bijection) avec l’ensemble des nombres entiers; cette approche conduisit naturellement Cantor à utiliser la notion de bijection, pour comparer des ensembles de nombres, et à introduire, dès 1877, la notion d’ensembles de même puissance. En étudiant les puissances des ensembles usuels de l’analyse, Cantor a alors la stupéfaction d’obtenir des résultats qui semblent tout à fait contraires à l’intuition, comme par exemple la possiblité d’établir une bijection entre le continu à une dimension et le continu à n dimensions («Je le vois, mais je ne le crois pas», écrit-il à Dedekind).

Des essais de classification précédents se dégagent ainsi deux types essentiels d’ensembles infinis: les ensembles que l’on peut ordonner en une suite simple, dits dénombrables, et les «continus» (il n’y a ici aucune condition topologique), chacun de ces types possédant de remarquables propriétés de stabilité. Dès 1878, Cantor est persuadé qu’il n’existe que ces deux types d’ensembles infinis de points dans Rⁿ (théorème du continu), et il cherchera toute sa vie à établir ce résultat. C’est en espérant trouver dans la dérivation des ensembles un procédé de passage du continu au dénombrable qu’il sera conduit à une de ses découvertes les plus originales, la théorie des ordinaux transfinis.

La dérivation des ensembles

Les travaux de Weierstrass avaient mis en évidence l’importance de la notion de point d’accumulation d’un ensemble infini, c’est-à-dire de point contenant dans tout voisinage une infinité de points de l’ensemble; tout point de l’ensemble qui n’est pas un point d’accumulation est appelé par Cantor un point isolé. Par définition, on appelle alors ensemble dérivé d’un ensemble de points E l’ensemble E des points d’accumulation de E. Les premiers travaux de Cantor sur les ensembles exceptionnels qui interviennent dans la théorie des séries trigonométriques avaient mis en évidence l’importance de la notion d’ensemble dérivé; en liaison avec ses recherches sur le dénombrable et le continu, il développa une théorie des ensembles de points intimement liés à des considérations fines de topologie de la droite, espérant ainsi appréhender le passage du continu au dénombrable. Nous dégagerons surtout ici les idées qui vont le conduire à l’arithmétique transfinie.

Si E est un ensemble infini, on peut former la suite de ses dérivés successifs:

Cantor dit que E est du premier type si un de ces ensembles dérivés est constitué d’un nombre fini de points, et du second dans le cas contraire. Pour approfondir l’étude des ensembles du second type, Cantor, remarquant qu’à partir de E chaque ensemble contient son dérivé, appelle dérivé d’ordre 秊 l’ensemble E⁽ 秊⁾ des points communs à tous les dérivés successifs de E ; par dérivations successives de E⁽ 秊⁾, on obtient les ensembles dérivés d’ordres 秊 + 1, 秊 + 2, ..., 秊 + n , ... ce qui, en considérant de nouveau l’ensemble des points communs à tous les ensembles précédents, permet de définir le dérivé d’ordre 2 秊; le même processus permet de définir les ensembles dérivés d’ordres 3 秊, ..., n 秊, ..., 秊², ..., 秊ⁿ , ..., 秊 size=1^秊 ... Comme il l’écrit, «nous voyons ici une génération dialectique de concepts qui conduit toujours plus loin et qui, libre de toute contrainte, reste nécessaire en soi et conséquente». Mais la synthèse cherchée entre le continu et le dénombrable est manquée car la génération des symboles ci-dessus reste prisonnière du dénombrable; il apparaît tout d’un coup avec évidence à Cantor qu’«il faut que les symboles infinis soient autre chose que les étapes d’une génération progressive, mais les représentants d’une réalité immanente que des moyens nouveaux permettront d’atteindre, il faut s’engager dans le domaine véritable du transfini» (J. Cavaillès). Cette nécessité de l’étude directe de l’infini actuel est le point de départ de la révolution cantorienne de 1882.

La rupture avec les mathématiques traditionnelles

De 1882 à 1884, Cantor publie une série de mémoires dans lesquels il pose les bases de la théorie des ensembles abstraits, du calcul des puissances et de la théorie des ordinaux transfinis; dans son esprit, ces concepts ne sont encore que «l’unité supérieure qui permet de considérer du même point de vue, le continu et le discontinu, de les mesurer avec une même mesure». Deux mémoires (1894 et 1897) reprendront et systématiseront toutes ces notions dans un contexte complètement abstrait.

Il n’est pas question d’exposer ici la théorie désormais classique des nombres ordinaux et des nombres cardinaux (cf. théorie des ENSEMBLES). Cantor a mis en évidence les deux aspects de la notion usuelle de nombre d’éléments d’un ensemble fini; le nombre est une abstraction qui émane d’un ensemble d’objets et qui se scinde, par passage aux ensembles infinis, en deux concepts distincts: «celui de la puissance [...] indépendante de l’ordre imposé à l’ensemble et celui de nombre ordinal qui est nécessairement lié à l’ordre imposé à l’ensemble». Il ajoute: «Si je redescends de l’infini au fini, je vois avec la même clarté et la même beauté comment les deux concepts redeviennent un et se fondent dans le concept de nombre entier fini.»

Pour Cantor, «la puissance ou nombre cardinal d’un ensemble est le concept universel ou générique que l’on obtient en faisant abstraction pour l’ensemble aussi bien de la constitution de ses éléments que de toutes les relations que ces éléments ont entre eux ou avec d’autres choses, donc en particulier de l’ordre qui règne entre eux, et en ne considérant que ce qui est commun à tous les ensembles qui lui sont équivalents». La notion de nombre ordinal est au contraire liée à l’existence d’un bon ordre; dans la classification des ordinaux en deux espèces, on retrouve les deux modes de génération des symboles infinis de dérivation: adjonction d’un élément et «passage à la limite». Cantor appelle ordinaux de la classe II, les ordinaux des ensembles bien ordonnés dénombrables (les ordinaux de la classe I étant les ordinaux finis) et montre que les ordinaux de la classe II forment un ensemble bien ordonné, dont la puissance est supérieure à celle du dénombrable; il obtient donc bien ainsi un procédé de dépassement du dénombrable, mais on ne sait pas pour autant si on a ainsi obtenu la puissance du continu.

Le caractère tout à fait révolutionnaire de ses recherches est apparu avec netteté à Cantor et il a éprouvé le besoin de se justifier en arguant de la liberté de création du mathématicien: «Je ne vois vraiment pas ce qui pourrait nous retenir dans cette activité créatrice de nouveaux nombres, aussitôt qu’il apparaît que, pour le progrès de la science, l’introduction d’une nouvelle, parmi ces innombrables classes de nombres, est devenue souhaitable ou même indispensable; [...] sans cette extension je ne peux plus aller de l’avant, avec elle j’atteins toute sorte d’inattendu.»

Encyclopédie Universelle. 2012.